chore: bump ms-swift from 3.5.3 to 3.8.3 - #51

Sourced from ms-swift's releases.

Patch release v3.8.3

Full Changelog: modelscope/ms-swift@v3.8.2...v3.8.3

Patch release v3.8.2

Full Changelog: modelscope/ms-swift@v3.8.1...v3.8.2

Patch release v3.8.1

Full Changelog: modelscope/ms-swift@v3.8.0...v3.8.1

v3.8.0

中文版

新特性

1. Megatron-SWIFT a. 支持多模态模型训练，包含LoRA/全参训练（CPT/SFT/DPO）。目前支持了Qwen2-VL、Qwen2.5-VL、Qwen2.5-Omni、InternVL3、InternVL3.5、GLM-4.5V、Ovis2.5系列模型。文档参考：https://swift.readthedocs.io/zh-cn/latest/Megatron-SWIFT/%E5%A4%9A%E6%A8%A1%E6%80%81%E6%A8%A1%E5%9E%8B.html 。训练脚本参考：https://github.com/modelscope/ms-swift/tree/main/examples/megatron/multimoda b. 支持Merge-LoRA，方便使用LoRA进行SFT后，Merge-LoRA进行DPO训练。文档参考：https://swift.readthedocs.io/zh-cn/latest/Megatron-SWIFT/LoRA%E8%AE%AD%E7%BB%83.html#merge-lora c. 支持channel loss，使用--enable_channel_loss参数开启。在数据集中准备"channel"字段，ms-swift会根据该字段分组统计loss。数据集准备参考文档：https://swift.readthedocs.io/zh-cn/latest/Customization/%E8%87%AA%E5%AE%9A%E4%B9%89%E6%95%B0%E6%8D%AE%E9%9B%86.html#channel-loss d. 支持对MoE的router部分进行LoRA训练。设置--target_modules all-router all-linear即可。 e. 支持deepspeed launcher启动训练。 f. 支持在权重转换时，将显存无法存放的hf_model部分offload到cpu。
2. GRPO a. GRPO多轮重构，支持自由度更高的多轮训练，详见多轮训练文档：https://swift.readthedocs.io/zh-cn/latest/Instruction/GRPO/DeveloperGuide/%E5%A4%9A%E8%BD%AE%E8%AE%AD%E7%BB%83.html b. --truncation_strategy delete参数支持跳过encode失败的数据。
3. 训练 a. 支持了DFT loss, 在SFT训练中设置参数--enable_dft_loss true使用该功能。（含Megatron-SWIFT），实验结果参考此PR：modelscope/ms-swift#5355 b. 数据集中支持通过增加"loss"字段，控制每一轮对话是否计算损失。文档参考：https://swift.readthedocs.io/zh-cn/latest/Customization/%E8%87%AA%E5%AE%9A%E4%B9%89%E6%95%B0%E6%8D%AE%E9%9B%86.html#id4 c. 在混合思考模型的训练时，自动填充 no_think_prefix（当样本不含思考部分时），例如对Qwen/Qwen3-30B-A3B模型自动填充<think>\n\n</think>\n\n。 d. 支持early_stop_interval参数，确保best_metric在early_stop_interval个周期内没有提升时终止训练。 e. MoE训练参数router_aux_loss_coef默认值从config.json中读取修改为默认值为0。（Megatron-SWIFT同步修改） f. channel loss重构，删除--channels参数，使用--enable_channel_loss参数替代。 g. 新增ROOT_IMAGE_DIR环境变量，指定图像（多模态）资源的根目录。 h. 支持DLRover flash checkpoint进行权重异步持久化（暂不支持safetensors格式），感谢招商银行技术团队的贡献。 i. Qwen2.5-Omni支持序列分类任务；并支持单样本中含混合模态数据训练。 j. 支持target_parameters参数，该特性需要安装"peft>=0.17.0"。 k. 支持GLM4.5 agent template。
4. RLHF a. LD-DPO支持，使用ld_alpha参数对超出公共前缀部分的logps加权，抑制长度偏好。 b. DPO支持packing，提升训练吞吐量。（含Megatron-SWIFT）训练脚本参考：https://github.com/modelscope/ms-swift/blob/main/examples/train/packing/dpo.sh ；https://github.com/modelscope/ms-swift/blob/main/examples/megatron/rlhf/dpo/packing.sh c. 数据集"rejected_messages"格式支持，提供比"rejected_response"格式更大的可拓展性（例如多模态/Agent场景）。文档参考：https://swift.readthedocs.io/zh-cn/latest/Customization/%E8%87%AA%E5%AE%9A%E4%B9%89%E6%95%B0%E6%8D%AE%E9%9B%86.html#rlhf d. ref_adapters参数支持，方便在LoRA SFT之后衔接DPO/KTO/GRPO的场景。（在Megatron-SWIFT中，该参数名为ref_adapter_load） e. DPO训练参数rpo_alpha默认值从1修改为None，与TRL参数默认值对齐。（Megatron-SWIFT同步修改）
5. 全链路能力 a. swift eval模块升级使用"evalscope>=1.0"。 b. 推理RequestConfig支持return_details参数返回图像在template中缩放后的尺寸，方便grounding任务推理时画目标框。例子参考：https://github.com/modelscope/ms-swift/blob/main/examples/infer/demo_grounding.py c. vllm支持更多多模型模型：ovis2.5、interns1、internvl3.5。 d. vllm新增disable_cascade_attn参数支持。

新模型

1. 纯文本模型： a. deepseek-ai/DeepSeek-V3.1（含Megatron-SWIFT） b. moonshotai/Kimi-K2-Instruct-0905

... (truncated)

• 35b37cb [megatron] optimize dpo main_grad (GPU memory) (#6027)
• 45df767 fix rollout
• 0942292 bump version
• 7846eed [template] Support image list (#5954)
• 1ed2c7c fix megatron type_checking
• 8e4f258 [bugfix] fix mcore to hf (#5929)
• a5e9c7d revert vllm video
• 3b5086c [bugfix] fix grpo mllm multi turn (#5840)
• e5d7c0f compat trl 0.15 (#5905)
• fd08d4b update wechat (#5903)
• Additional commits viewable in compare view

You can trigger Dependabot actions by commenting on this PR:

• @dependabot rebase will rebase this PR
• @dependabot recreate will recreate this PR, overwriting any edits that have been made to it
• @dependabot merge will merge this PR after your CI passes on it
• @dependabot squash and merge will squash and merge this PR after your CI passes on it
• @dependabot cancel merge will cancel a previously requested merge and block automerging
• @dependabot reopen will reopen this PR if it is closed
• @dependabot close will close this PR and stop Dependabot recreating it. You can achieve the same result by closing it manually
• @dependabot show <dependency name> ignore conditions will show all of the ignore conditions of the specified dependency
• @dependabot ignore this major version will close this PR and stop Dependabot creating any more for this major version (unless you reopen the PR or upgrade to it yourself)
• @dependabot ignore this minor version will close this PR and stop Dependabot creating any more for this minor version (unless you reopen the PR or upgrade to it yourself)
• @dependabot ignore this dependency will close this PR and stop Dependabot creating any more for this dependency (unless you reopen the PR or upgrade to it yourself)